iT邦幫忙

dbt core相關文章
共有 35 則文章
鐵人賽 AI & Data DAY 27

技術 開源項目商業化:3 dbt 商業化案例分析(2)

dbt 商業模式轉向 近年來,dbt Labs內部應該是了解到了這個問題,而看似是有意識的轉移dbt Cloud的商業定位。最明顯的應該是他們的商業模式改變,從...

鐵人賽 AI & Data DAY 26

技術 DAY 26 - dbt Core 入門 (4) - 用 GitHub Actions 建立排程

在 DAY 07 我們曾討論過在 dbt Cloud 要如何建立定時排程。那麼如果我們用的是 dbt Core,該怎麼做呢? 許多團隊會使用 Airflow,...

鐵人賽 AI & Data DAY 25

技術 開源項目商業化:1 開源商業模式簡介

開源軟體商業化模式 對許多人來說,“開源軟體”(Open Source Software)可能讓人聯想到網路初期那些充滿熱情的駭客和程式設計師,與這些人對網路烏...

鐵人賽 AI & Data DAY 25

技術 DAY 25 - dbt Core 入門 (3) - dbt Power User

昨天聊了 dbt Core 在本機開發的基本操作,但和 dbt Cloud 相比起來,還是麻煩很多。 今天要來介紹一個常用的 VS Code extension...

鐵人賽 AI & Data DAY 24

技術 DAY 24 - dbt Core 入門 (2) - 在本機開發的基本操作

今天要在聊 dbt Core 如何執行基本的 dbt 操作。在本機的 VS Code 或其他 IDE 開發,與 dbt Cloud 不同,沒有瀏覽器的 GUI...

鐵人賽 AI & Data DAY 23

技術 DAY 23 - dbt Core 入門 (1) - 設定本機環境

相對於 dbt Cloud 為 dbt Labs 提供的 SaaS solution,dbt Core 為 free open source solution,...

鐵人賽 AI & Data DAY 22

技術 DAY 22 - dbt 中階 (9) - 排程規劃 & Tags

昨日 DAY 21 所討論的專案架構,可能也和我們日常更新的排程規劃有關。 依資料來源系統更新 在 DAY 12 時有提過,我們在執行 dbt run 或是...

鐵人賽 AI & Data DAY 21

技術 跑 dbt 常碰到的問題如何 debug

當使用 dbt 遇到 error 怎麼辦呢?以下提供本人常用的途徑 可自己解決去哪 debug? model SQL 寫錯→去 target/compiled/...

鐵人賽 AI & Data DAY 20

技術 DAY 20 - dbt 中階 (7) - Exposures 及 Custom Outputs

今天要往更下游走,Exposures 可以理解為 dbt 的 output,也就是說經過 dbt 轉換的資料都被用在哪些地方,例如我們在 Teamson 是以...

鐵人賽 AI & Data DAY 20

技術 dbt 學習資源

看完一系列的文章,還想要持續學習 dbt 知識要去哪裡呢? 官方文件初次學習以及碰到問題會優先查找官方文件,除了他會不時更新資訊,也可以選擇不同 dbt 版...

鐵人賽 AI & Data DAY 19

技術 dbt CD 項目及完整 CICD 流程

上一篇提到 dbt 的 CI 檢查項目,接下來 CI 過了要自動 deploy,dbt deploy 要做什麼以及有什麼注意事項嗎? deploy 到正式環...

鐵人賽 AI & Data DAY 19

技術 DAY 19 - dbt 中階 (6) - Incremental Materializations

先前我們在 DAY 06 說明了兩種基本的 materializations: view 和 table。今天要來介紹另一個 materialization:...

鐵人賽 AI & Data DAY 18

技術 dbt 要部署前做的 CI 項目有哪些?怎麼做?

根據前面提到的 dbt Core 架構, CI/CD 是必須的流程,也是 dbt Cloud 在 deploy 前可以設定的流程,那用 dbt Core 要做什...

鐵人賽 AI & Data DAY 18

技術 DAY 18 - dbt 中階 (5) - Singular Tests & 儲存 Test 失敗的資料

在 DAY 08 我們示範了最基本的 Generic tests。DAY 16 也提到了除了內建的 Generic Tests 外,也可以額外安裝 Packag...

鐵人賽 AI & Data DAY 17

技術 dbt Core 基礎部署架構

dbt Cloud & dbt Core 怎麼選擇? 提到 dbt Core 須自行建置 architecture,那我要怎麼開始呢? 先回到 dbt...

鐵人賽 AI & Data DAY 17

技術 DAY 17 - dbt 中階 (4) - dbt Graph

如果在 SQL 想要列出所有的 tables, views 或 columns,我們可以使用 information_schema。 若是在作業系統中想要 pr...

鐵人賽 AI & Data DAY 16

技術 dbt snapshot 介紹 - 怎麼設定? 各種 snapshot 策略有什麼差異? 有什麼要注意的?

dbt snapshot 介紹 - 怎麼設定? 各種 snapshot 策略有什麼差異? 有什麼要注意的? dbt snapshots 是什麼? dbt sna...

鐵人賽 AI & Data DAY 16

技術 DAY 16 - dbt 中階 (3) - dbt Packages

昨天 DAY 15 談的是如何開發 macro。今天要聊的是在 dbt 如何安裝及使用 packages,使用別人寫好的 macro。 dbt Packages...

鐵人賽 AI & Data DAY 15

技術 如何使用 dbt incremental 增量更新你的資料?

如何使用 dbt incremental 增量更新你的資料? dbt incremental 定義 dbt 用增量的方式更新你的資料。平常若你沒特別設定,dbt...

鐵人賽 AI & Data DAY 15

技術 DAY 15 - dbt 中階 (2) - dbt Macros

在 SQL 資料庫,我們有時會利用 Stored Procedures 及 User-defined Functions,將邏輯寫成可以重複利用的元件。在 db...

鐵人賽 AI & Data DAY 14

技術 DAY 14 - dbt 中階 (1) - dbt Jinja

dbt 的語法不只是 SQL,在 dbt 我們除了單純的 SQL 之外也混用了 Jinja 語法。之前幾天用過的 {{ ref('model_name') }}...

鐵人賽 AI & Data DAY 14

技術 data quality 系列 - 如何透過 elementary 通知 dbt test 結果?

elementary 是什麼? 上一篇 “data quality 系列 - 怎麼儲存和查詢 dbt test 結果?” 介紹 dbt test —store_...

鐵人賽 AI & Data DAY 13

技術 data quality 系列 - 怎麼儲存和查詢 dbt test 結果?

dbt artifacts 是什麼? dbt artifacts 是執行 dbt 指令後,像是 dbt run, dbt test 會產生的各種 json 檔,...

鐵人賽 AI & Data DAY 12

技術 data quality 系列 - dbt test 常用的 package: dbt.utils 介紹

dbt package 是什麼? dbt package 如同寫 python 可以匯入開源套件,幫助你節省自己寫 dbt 語法的時間,package 除了上...

鐵人賽 AI & Data DAY 11

技術 data quality 系列 - dbt test 原理、使用方式

dbt test 基本介紹 前面的 dbt 核心功能指令有哪些? 要怎麼使用? 提到 dbt test 的基本功能,用於確保 data transforma...

鐵人賽 AI & Data DAY 10

技術 dbt 指令的參數介紹(下)-如何透過 dbt 變數區分測試環境

本篇為延續 “ 常用的 dbt 指令參數(上)” 的下集 --target --target 參數允許您指定要運行的目標,例如 prod(生產環境)或 de...

鐵人賽 AI & Data DAY 8

技術 如何用 dbt 客製化命名 bigquery dataset? dbt custom schema 原理及使用方式

這篇稍微進階,但對你在寫 dbt 對應 data warehouse 命名管理很有幫助 首先我們定義好專有名詞,以dbt 使用 bigquery 為例 定...

鐵人賽 AI & Data DAY 7

技術 常用的 dbt 指令參數介紹(上)

dbt 指令 flag dbt 指令 flag 是你跑 dbt run 一定會寫到的東西,因為他可以幫你達成很多事 —select —exclude --s...

鐵人賽 AI & Data DAY 6

技術 dbt docs 及 lineage 關係圖介紹

dbt 文檔和 model 關係圖 dbt docs dbt docs 指令用於生成 dbt 專案的文檔網站。這個文檔網站包含有關 model、SQL 語法、t...